сходства с подлинным человеческим мышлением»[184]. Философ Джон Сёрл расценил Deep Blue как «отказ от искусственного интеллекта»[185], а Каспаров с ним фактически согласился, обозвав машину «будильником за десять миллионов долларов»[186].
Или возьмем Watson, другую компьютерную систему IBM. Ее претензия на известность заключается в том, что в 2011 году она появилась на американской шоу-викторине Jeopardy! и победила двух чемпионов. Хофштадтер и в этом случае согласился, что у системы была «впечатляющая» производительность, но добавил, что она «абсолютно пустая»[187]. Сёрл в редакционной статье Wall Street Journal едко заметил: «Watson не поняла, что выиграла в Jeopardy!»[188] Машина не захотела позвонить родителям, чтобы рассказать, как хорошо выступила, или сходить в паб, отпраздновать победу с друзьями.
Как мы увидели в предыдущей главе, Хофштадтер, Каспаров, Сёрл и все те, кто делает подобные наблюдения, правы. Несмотря на бесконечные заявления компаний и обсуждения в средствах массовой информации «искусственного интеллекта» или «машинного интеллекта», то, что создается сейчас, не является реальным интеллектом. Такие пуристы, как Сёрл и Хофштадтер, хотели использовать исследования ИИ, чтобы решить загадку интеллекта человеческого, разгадать тайну сознания и понять разум, – и все же самые способные современные машины мало что могут сказать о том, как функционирует человек. Неудивительно, что они разочарованы.
Само по себе это ощущение небеспочвенно. Проблемы начинаются, когда разочарование переходит в пренебрежение. Некоторые критики, по-видимому, считают, что, раз новейшие машины мыслят не так, как разумные люди, они не представляют собой ничего особенного – и это приводит их к систематической недооценке возможностей машин.
Такой подход объясняет, почему критики часто оказывались в ловушке паттерна интеллектуального уклонения. Когда автоматизируется какая-то задача, которую, по их мнению, могут выполнять только люди, они отвечают, что эта задача не была точным отражением человеческого интеллекта, и указывают на совершенно другую задачу, которая еще не автоматизирована, утверждая, что именно в ней и заключается суть человеческого интеллекта. Религиозные лидеры иногда подвергаются критике за то, что определяют «Бога» как нечто, что наука в настоящее время не может объяснить, как «Бога белых пятен»: Бог был силой, создавшей ночь и день, пока астрономия не смогла объяснить их; Бог был создателем всех живых существ, пока не оказалось, что они – результат эволюции. Здесь мы имеем дело с подобным текучим стилем определения, «интеллектом белых пятен», где разум определяется как то, что машины в настоящее время не могут сделать. Осознание этой ловушки необязательно защищает вас от попадания в нее. Хофштадтер, например, был хорошо осведомлен об этом явлении и остроумно определил его как «теорему» области ИИ: «Искусственный интеллект – это то, что еще не было создано»[189]. И все же, описав это заблуждение, он сам поддался ему.
Еще в 1979 году, задавшись вопросом, появится ли когда-нибудь шахматная программа, которая «сможет победить кого угодно», Хофштадтер твердо ответил: «Нет. Могут появиться программы, способные обыграть в шахматы кого угодно, но они будут не только шахматными программами. Это будут программы общего интеллекта, и они будут такими же темпераментными, как и люди. „Хочешь сыграть в шахматы?“ – „Нет, мне надоели шахматы. Давайте поговорим о поэзии“. Возможно, именно такой диалог вы могли бы вести с программой, способной победить всех»[190]. Другими словами, Хофштадтер считал, что для успешной шахматной системы необходим человеческий интеллект. Почему? Потому что он был пуристом и считал, что «игра в шахматы внутренне опирается на ключевые аспекты человеческой природы», такие как «способность интуитивно отделять зерна от плевел, способность проводить тонкие аналогии, способность к ассоциативным воспоминаниям»[191].
Однако, как мы уже видели, Deep Blue доказал, что это заблуждение: для блестящей игры в шахматы не требуются ни волшебство, ни интуитивное умение отделять зерна от плевел. Но вместо того чтобы признать ошибку, Хофштадтер прибег к уловке «интеллекта белых пятен». Эти машины «просто обгоняют людей в определенной умственной деятельности, которая, как мы думали, требует интеллекта, – писал он после того, как Deep Blue выиграла свою первую игру против Каспарова. – Боже мой, раньше я думал, что в шахматах нужно думать. Это не значит, что Каспаров не является глубоким мыслителем, просто при игре в шахматы вы можете обойтись без глубоких размышлений, как вы можете летать, не хлопая крыльями»[192]. Изменив свою точку зрения, Хофштадтер стал отрицать, что способности, необходимые для игры в шахматы, в конце концов, являются «существенной составляющей» человеческого интеллекта[193].
Или возьмем самого Каспарова, главного героя этой истории о шахматного противостоянии человека и машины. В книге «Человек и компьютер», где он рассказывает о матчах с Deep Blue, он тоже определяет эту ловушку: «Едва придумав способ научить компьютер выполнению какой-то „интеллектуальной“ задачи – например, игре в шахматы на уровне чемпиона мира, мы тут же приходим к мысли, что это не является настоящим проявлением интеллекта»[194]. И ровно так он сам и поступил. За семь лет до поединка с Deep Blue Каспаров с апломбом заявил, что машина никогда не сможет победить такого человека, как он, поскольку она никогда не сможет быть таким человеком, как он: «Если компьютер может победить чемпиона мира, то он может читать лучшие книги в мире, писать лучшие пьесы и знать все об истории, литературе и людях. Но это невозможно»[195]. Тогда для Каспарова победа в шахматы была неотделима от всего остального, что делает нас такими, какие мы есть. И все же после матча он заявил, что «Deep Blue… был умен настолько, насколько умен ваш программируемый будильник»[196]. Как и Хофштадтер, он изменил мнение, решив, что победа в шахматы вовсе не является признаком человеческого интеллекта.
Эта привычка переставлять стойку ворот бесполезна, потому что она приводит критиков к недооценке возможностей будущих машин. Да и вообще возникает вопрос, насколько уместен столь пренебрежительный тон. Что такого удивительного в человеческом интеллекте? Почему мы ставим человеческое мышление, каким бы поразительным оно ни было, выше любого другого подхода, способного наделять машины замечательными возможностями? Конечно, сила и тайна человеческого разума должны вызывать у нас благоговейный трепет. Возможно, еще долго мы не будем полностью понимать, что происходит у нас в головах. Но разве конструкция машин, пусть и непохожих на людей, но способных их превзойти, не вызывает не менее волнующего чувства удивления? Каспаров может отмахнуться от Deep Blue, обозвав его дорогим будильником, но этот будильник загнал его в угол. Разве внутренняя работа этой машины не должна изумлять нас так же, как работа мозга, пусть
